Nước Hậu Triệu thành lập trên cơ sở quân sự lớn mạnh của Thạch Lặc, một tướng của Hán Triệu - quốc gia mở đầu sự xâm chiếm trung nguyên của Ngũ Hồ.

Xuất thân là người Yết ở huyện Võ Hương, quận Thượng Đảng, Tinh Châu (Sơn Tây) bị bắt bán làm nô lệ từ bé vào thời Tây Tấn, làm chăn ngựa, nên quen với Ngập Tan. Tên họ Thạch Lặc là do Ngập Tan đặt. Trong thời buổi hỗn loạn cuối triều Tây Tấn, Ngập Tan, Thạch Lặc lập thành băng cướp, sau đó gia nhập cánh quân của Công Sư Phiên, thuộc phe phái Thành Đô Vương Tư Mã Dĩnh.

Năm 306, Tư Mã Dĩnh bị Tư Mã Hao thuộc phe Đông Hải Vương Tư Mã Việt giết ở Nghiệp Thành, Công Sư Phiên khởi quân báo thù, song thua trận và chết. Ngập Tan tiếp diễn và chiếm Nghiệp Thành, giết Tân Thái Vương Tư Mã Đằng báo thù cho Tư Mã Dĩnh. Tư Mã Việt phái Cẩu Hi tái chiếm Nghiệp Thành, giết Ngập Tan. Thạch Lặc trốn theo vua nhà Hán là Lưu Uyên.

Diệt Tấn

Lưu Uyên nhận Thạch Lặc vào hàng ngũ. Đến năm 309, để mở rộng chiến tuyến với triều Tấn, Lưu Uyên sai Thạch Lặc tự thống lĩnh một cánh quân riêng đánh phá xuống các quận Cự Lộc, Thường Sơn (Hà Bắc). Lúc này, quân đội Thạch Lặc bắt đầu tổ chức có quy mô hơn; ông thu dụng một số nhân sĩ người Hán trốn tránh loạn lạc, trong đó có Trương Tân, được ông dùng làm mưu sĩ. Trong thời kỳ này, Thạch Lặc dẫn một cánh quân di động đánh cướp những nơi chính quyền Tây Tấn suy yếu từ Hà Bắc xuống đến phía bắc sông Hoài.

Năm 311, Đông Hải Vương Tư Mã Việt chết, phe cánh đưa tang về Đông Hải (Sơn Đông) bằng cánh quân chính quy còn lại của triều Tây Tấn. Trên đường đi, cánh quân này bị Thạch Lặc vây đánh tiêu diệt, con cháu họ Tư Mã cùng số lớn nhân sĩ của triều Tây Tấn bị bắt giết. Sau sự kiện này, Lạc Dương gần như không còn phòng thủ.

Năm 310, Lưu Uyên chết, con là Lưu Thông kế vị. Năm 311, Thạch Lặc được lệnh phối hợp với cánh quân của Vương Di, vốn cũng là một cánh quân độc lập đang hoạt động mạnh ở Sơn Đông, và một cánh quân Hán Triệu kéo xuống từ kinh đô Bình Dương cùng đánh kinh đô Lạc Dương của nhà Tấn. Lạc Dương thất thủ, Tấn Hoài Đế bị bắt đưa về Bình Dương.

Diệt Vương Di

Thạch Lặc và Vương Di tuy trên danh tiếng là bề tôi nhà Hán, song mỗi người đều đã có tư tưởng tự quyền, và e dè thế lực của nhau nên đã bắt đầu ngầm toan tính thôn tính nhau. Lưu Thôn, vốn là một quan lại triều Tấn, khuyên Vương Di tiêu diệt Thạch Lặc. Vương Di sai Lưu Thôn đến Thanh Châu trưng viện bộ tướng của mình là Tào Nghi vốn đang cát cứ ở đấy. Trên đường, Lưu Thôn bị Thạch Lặc bắt, âm mưu vì thế bại lộ. Thạch Lặc bày mưu mời Vương Di đến hội họp rồi bắt giết Di, thu phục thuộc hạ Vương Di. Lưu Thông dù biết Lặc chuyên quyền nhưng không còn chế ngự được.

Thạch Lặc bắt đầu xây căn cứ ở Tương Quốc (nay thuộc thành phố Thạch Gia Trang), Hà Bắc.

Diệt Vương Tuấn

Lạc Dương tuy bị Hán chiếm, song một số nơi vẫn còn các thế lực cát cứ là chính quyền cũ triều Tây Tấn. Phía tây căn cứ Thạch Lặc, ở Tinh Châu (Thái Nguyên), có Lưu Côn; phía đông bắc của Thạch Lặc, có Vương Tuấn đang cát cứ U Châu.

U Châu Vương Tuấn nhờ sự hỗ trợ của bộ lạc họ Đoàn người Tiên Ty, nên thế lực mạnh mẽ. Thạch Lặc mấy lần giao chiến đều bị kỵ binh họ Đoàn đánh bại. Song nhờ may mắn, ông bắt được một trong số các đầu lĩnh họ Đoàn, và thông qua người đó, ông kết liên với bộ tộc họ Đoàn và ly gián họ từ Vương Tuấn. Thạch Lặc còn giả vờ thuần phục, khuyên Vương Tuấn xưng đế để Tuấn nới phòng bị. Năm 314, Thạch Lập đem quân đánh úp Kế Thành, bắt sống Vương Tuấn rồi giết đi. Thạch Lặc trở thành thế lực quân sự duy nhất còn tồn tại ở cả vùng bình nguyên Hà Bắc, ông bắt đầu đánh chiếm đất đai và thành lập chính quyền cai trị có hệ thống.

Thành lập nhà Hậu Triệu

Năm 316, em họ Lưu Thông là Lưu Diệu đánh hạ kinh đô Trường An, tiêu diệt nhà Tây Tấn. Song thực chất thì chính quyền trung ương nhà Hán ở Bình Dương yếu kém, không kiềm chế được các thế lực độc lập trên danh tiếng thuộc quyền chỉ huy của mình như Thạch Lặc, Lưu Diệu, Tào Nghi. Năm 318, Lưu Thông chết, con là Lưu Xán kế vị, bị cha vợ Lưu Thông là Cận Chuẩn giết chết, cướp ngôi. Thạch Lặc từ phía đông, Lưu Diệu từ phía tây, đều cất quân đến đánh Bình Dương. Lưu Diệu xưng đế hiệu, mua chuộc Thạch Lặc bằng tước Triệu Công, chức Đại Tư Mã, Đại tướng Quân để Thạch Lặc khỏi ngã theo Cận Chuẩn.

Thạch Lặc tấn công Bình Dương. Cận Chuẩn sai Bốc Thái mang xe ngự, áo bào ra dâng để cầu hòa. Thạch Lặc lại sai Thái mang sang Lưu Diệu, nhằm tỏ cho Lưu Diệu biết người trong thành Bình Dương không có ý theo Diệu, mong Diệu thất vọng tự bãi binh. Nhưng Lưu Diệu ngầm ăn thề với Bốc Thái, sai Thái quay về Bình Dương phủ dụ đầu lĩnh các bộ tộc (Đồ Các). Thạch Lặc ngầm đoán Lưu Diệu và Bốc Thái có thông đồng, muốn giết Thái và buộc Bình Dương phải tức khắc đầu hàng. Thuộc hạ của Thạch Lặc can gián, giải thích rằng nếu giết Bốc Thái thì Cận Chuẩn sẽ không dám đầu hàng, tốt hơn cho Thái trở lại Bình Dương làm điều Lưu Diệu muốn, Cận Chuẩn sợ chết sẽ mở thành đầu hàng Thạch Lặc. Thái về Bình Dương hợp mưu với một số bộ tướng của Cận Chuẩn giết Chuẩn, lập con Chuẩn là Cận Minh lên làm Minh chủ, còn Thái đem ngọc tỷ đến giao cho Lưu Diệu (để chứng tỏ Bình Dương muốn đầu hàng Lưu Diệu chứ không phải Thạch Lặc). Thạch Lặc bèn tấn công Bình Dương, Lưu Diệu sai Lưu Sướng dẫn quân cứu Bình Dương. Thạch Lặc nới vòng vây ở phía tây, Cận Minh bèn dẫn người bỏ thành chạy theo Lưu Diệu. Thạch Lặc chiếm được Bình Dương bèn cho tiêu hủy hết cung điện nhà Hán. Chuyển hết của cải quý báu về Tương Quốc.

Năm 319, Thạch Lặc chính thức ly khai từ Lưu Diệu, tự xưng Đại Thiền Vu, thành lập nhà Hậu Triệu.